Ông sinh ngày 15 tháng 10 năm 1905, quê ở xã Mỹ Thắng (nay là xã Mỹ An), huyện Phù Mỹ, tỉnh Bình Định. Tháng 10 năm 1925, ông vào Sài Gòn làm công nhân và bắt đầu tham gia các hoạt động của tổ chức Công hội tại Phú Thọ. Từ năm 1928 đến 1930, ông làm bồi bếp chuyên nghiệp (còn gọi công nhân tư gia) cho các gia đình người Pháp, tham gia nghiệp đoàn (tức Công hội bí mật) thuộc Hội bồi bếp do ông Đoàn Vinh phụ trách. Thời gian này, ông lấy tên là Tư Chí theo thông lệ miền Nam.

Năm 1930, ông làm bồi bếp trong Sở Mật thám Chợ Lớn (còn gọi là bót Bolot, Bôlô), được tổ chức phân công làm nhiệm vụ nội gián để thu thập tin tức và liên lạc với ông Hà Huy Giáp và Nguyễn Văn Tây (tức Thanh Sơn) để đưa tin ra ngoài.[1] Ngày 15 tháng 3 năm 1932, ông được giới thiệu kết nạp vào Đảng Cộng sản Đông Dương tại chi bộ ghép nhà đèn Chợ Lớn - Châu Thành, do các ông Nguyễn Văn Trân và Phan Văn Nữ (tức Phan Vân) giới thiệu.

Năm 1934, ông được chuyển sang làm bồi bếp tại Sở Thương chánh Sài Gòn. Từ năm 1936 đến 1939, ông hoạt động tại thị xã Bến Tre, được phân công phụ trách Bí thư Chi bộ thị xã.

Cuối năm 1939, mật thám Pháp phát hiện những hoạt động của ông có liên quan đến Đảng Cộng sản Đông Dương. Khi Khởi nghĩa Nam Kỳ thất bại, chính quyền thực dân Pháp khủng bố, truy nã ráo riết các đảng viên Cộng sản. Ông trốn lên Đà Lạt, tiếp tục hoạt động bí mật.